Tuy nhiên, ngay trong chính lực lượng phiến loạn cũng phát sinh chia rẽ. Được sự hậu thuẫn của người Mỹ, Ngô Đình Diệm đã tranh thủ và phân hóa hàng ngũ lãnh đạo của phe phiến loạn cũng như tập hợp được các nhóm chính trị và vũ trang ủng hộ. Tướng Nguyễn Văn Vỹ ủng hộ Quốc trưởng bị cách chức, tướng Lê Văn Tỵ, vốn ủng hộ chính phủ, lên thay chức Tổng tham mưu trưởng, các tướng lĩnh trong Bộ Tổng tham mưu đứng về phía Thủ tướng. Một bộ phận Bình Xuyên ly khai ngay khi tiếng súng vừa nổ. Lực lượng Cao Đài ly khai của Thiếu tướng Trịnh Minh Thế sáp nhập vào quân chính phủ tiến đánh quân Bình Xuyên. Một số nhân vật Hòa Hảo và Cao Đài như Trung tướng Trần Văn Soái, Lương Trọng Tường, Thiếu tướng Nguyễn Thành Phương theo về với chính phủ, làm cho hàng ngũ quân phiến loạn tổn thất nghiêm trọng. Các nhóm Cao Đài và Hòa Hảo còn lại án binh bất động trước giao tranh giữa quân chính phủ và Bình Xuyên.

Ngày 29 tháng 4 năm 1955, sau khi trấn áp và trục xuất được quân Bình Xuyên khỏi Sài Gòn, Ngô Đình Diệm đã cho triệu tập các đoàn thể chính trị ủng hộ mình để làm hậu thuẫn, gồm 18 đoàn thể và hơn 30 nhân sĩ tên tuổi của miền Nam. Hội nghị các đoàn thể này đã chính thức ra tuyên ngôn thành lập một tổ chức chính trị lớn thống nhất với danh xưng Ủy ban Cách mạng Quốc gia.

Các đoàn thể đó gồm có:

1. Mặt trận Quốc gia Kháng chiến Việt Nam (Cao Đài)
2. Việt Nam Phục quốc Hội (Cao Đài)
3. Việt Nam Dân xã Đảng (Hòa Hảo)
4. Thanh niên Dân chủ Việt Nam
5. Thanh niên Quốc dân Xã (Cao Đài)[1]
6. Phụ nữ Quốc dân Xã
7. Phong trào Tranh thủ Độc lập Việt Nam
8. Việt Nam Cần lao Nhân vị Cách mạng Đảng
9. Nhóm Tinh thần
10. Phong trào Cách mạng Quốc gia
11. Tịnh độ Phật giáo đồ Việt Nam
12. Xã hội Công giáo
13. Tổng Liên đoàn Lao công Việt Nam
14. Nghiệp đoàn Ký giả Việt Nam
15. Phong trào Dân chúng Liên hiệp Việt Nam
16. Tập đoàn Công dân
17. Cựu Chiến sĩ Kháng chiến Việt Nam
18. Hội Tương trợ Đồng bào Nghệ-Tĩnh-Bình

Nhân sĩ thì có những người như Bác sĩ Huỳnh Kim Hữu, Huỳnh Minh Y, luật sư Hoàng Cơ Thụy, Dư Phước Long, Huỳnh Văn Lang.

Ủy ban trình lên Thủ tướng 3 kiến nghị:

Chủ tịch Ủy ban là Nguyễn Bảo Toàn thuộc đảng Dân Xã; Phó Chủ tịch là Hồ Hán Sơn thuộc Việt Nam Phục quốc Hội (Cao Đài) và Thư ký là thiếu tá Nhị Lang (Cao Đài).

Cũng tối ngày 29 bản tuyên cáo của Ủy ban được phát thanh toàn quốc và sáng ngày 30 thì các đoàn thể nhóm họp ở tòa Đô chánh, gỡ bỏ bức chân dung của Bảo Đại. Ủy ban sau đổi tên thành Hội đồng Nhân dân Cách mạng Quốc gia,[2] bầu ra ban chấp hành 33 người[3]. Sang tháng 5 và tháng 6, Hội đồng tổ chức nhiều cuộc biểu tình chống Bảo Đại và bài Pháp. Ngày 31 tháng 5, Hội đồng với sự cổ võ của Bùi Văn Thinh và Trần Chánh Thành đòi mở cửa Kinh thành Huế và tịch thu các vật dụng trong văn phòng của quốc trưởng kể cả ấn tín[4] để rồi kết thúc với việc tổ chức Cuộc trưng cầu dân ý miền Nam Việt Nam, 1955 vào tháng 10, chính thức khai sinh nước Việt Nam Cộng hòa.